Видео с ютуба Megakernel Architecture

Лекция 112: Промышленные мегаядра для инференса в реальных задачах

Лекция 112: Промышленные мегаядра для инференса в реальных задачах
How vLLM's Megakernel Cuts MoE Decode Latency by 50% (Kimi K3 Breakdown)

How vLLM's Megakernel Cuts MoE Decode Latency by 50% (Kimi K3 Breakdown)
Мегакернелы для продакшена в реальных задачах инференса

Мегакернелы для продакшена в реальных задачах инференса
Лекция 79 Mirage (MPK): Компиляция LLM в мегаядра

Лекция 79 Mirage (MPK): Компиляция LLM в мегаядра
Event Tensor: Faster LLM Inference via Megakernels

Event Tensor: Faster LLM Inference via Megakernels
Секрет CUDA, позволяющий ускорить работу LLM и снизить энергопотребление (реальные результаты)

Секрет CUDA, позволяющий ускорить работу LLM и снизить энергопотребление (реальные результаты)
The $6 Billion AI Lab with Zero Revenue #FlappingAirplanes

The $6 Billion AI Lab with Zero Revenue #FlappingAirplanes
Qwen 3.8 Megakernel for 16GB VRAM ADA Architecture

Qwen 3.8 Megakernel for 16GB VRAM ADA Architecture
Where to Stop Fusing GPU Kernels: The Megakernel Dilemma

Where to Stop Fusing GPU Kernels: The Megakernel Dilemma
Постоянные ядра — объяснение динамического распределения работы графического процессора.

Постоянные ядра — объяснение динамического распределения работы графического процессора.
Урок 160 — Архитектура микроядра

Урок 160 — Архитектура микроядра
700 tok/s on a 2.8 Trillion Model: The 92-Layer TPU Megakernel

700 tok/s on a 2.8 Trillion Model: The 92-Layer TPU Megakernel
Qwen3.8-27B vs Mistral Small 3.2: Unsloth KV Cache, 8,000 Answers - Does Q4 Hurt?

Qwen3.8-27B vs Mistral Small 3.2: Unsloth KV Cache, 8,000 Answers - Does Q4 Hurt?
Blender Cycles: architecture of a unified CPU/GPU path tracer

Blender Cycles: architecture of a unified CPU/GPU path tracer
Serving the agentic workload | Simon Mo CEO at Inferact, Runtime 2026

Serving the agentic workload | Simon Mo CEO at Inferact, Runtime 2026
Event Tensor: 10X GPU Compiler Speed for Dynamic Kernels

Event Tensor: 10X GPU Compiler Speed for Dynamic Kernels
Mooncake Architecture Deep Dive | Disaggregated KV Cache & LLM Serving

Mooncake Architecture Deep Dive | Disaggregated KV Cache & LLM Serving
Writing Custom TPU Kernels: Can Pallas Beat XLA? (Bielik LLM on TPU v5e - RMSNorm)

Writing Custom TPU Kernels: Can Pallas Beat XLA? (Bielik LLM on TPU v5e - RMSNorm)
How Supercomputers Really Work: The Machine That Lost #1

How Supercomputers Really Work: The Machine That Lost #1